Unidades de producto en GRU mejoran predicción de masas nucleares
Nuevo modelo GRU con unidades de producto complejas logra RMSE de 0.227 MeV en predicción de masas nucleares, superando a métodos previos.
#redes recurrentes
Estadísticas predictivas y representaciones emergentes en caminantes de rejilla
Descubre cómo las estadísticas predictivas crean modelos del mundo en redes neuronales. Estudio revela que transformadores aíslan un estado universal.
Preentrenamiento de Redes Recurrentes sin Recurrencia
Descubre SMT: un método que entrena redes recurrentes sin recurrencia, en paralelo, con gradientes estables y mejor captura de dependencias largas para modelos de lenguaje.
MesaNet: Modelado de secuencias con optimización en tiempo de prueba
Descubre MesaNet, un modelo recurrente que optimiza capa por capa en inferencia. Mejora rendimiento en contextos largos sin aumento lineal de memoria.
R2DN: Parametrización escalable de redes recurrentes contractivas y Lipschitz
R2DN acelera entrenamiento e inferencia hasta 10 veces, manteniendo estabilidad y robustez. Ideal para control y sistemas no lineales.
Composición Secuencial de Grupos: Una Ventana a la Mecánica del Deep Learning
Composición secuencial de grupos: una ventana a la mecánica del deep learning. Descubre cómo redes neuronales aprenden operaciones estructuradas.
El sesgo de inducción en modelos secuenciales
Investigación muestra que los transformers requieren más datos que las RNN para seguimiento de estado y no comparten pesos entre longitudes. Descubre las diferencias clave.
Identificando distribuciones de conectividad neural con flujos
Descubre un método innovador que usa flujos normalizantes para inferir distribuciones de conectividad neuronal, evitando soluciones espurias.
Reacciona a sorpresas: Control neuronal estable con Youla-REN
El control neuronal Youla-REN garantiza estabilidad por diseño ante imprevistos. Ideal para entrenamiento con horizontes cortos y sistemas inciertos.
Refinamiento de pose humana mediante aprendizaje basado en ángulos articulares
Descubre cómo el método JAR, basado en ángulos articulares y redes recurrentes, refina la estimación de pose humana corrigiendo errores y suavizando trayectoria
Redes Residuales de Memoria de Reservorio
Descubre las Redes Residuales de Memoria de Reservorio (ResRMN), una nueva clase de RNN no entrenadas que mejoran la propagación temporal mediante conexiones residuales ortogonales.